Sau 8 phiên họp toàn thể và 23 phiên họp hẹp, ngày 21 tháng 7 năm 1954, Hiệp định đình chỉ chiến sự ở Việt Nam được ký kết giữa đại diện Quân đội Nhân dân Việt Nam và đại diện Quân đội Liên hiệp Pháp. Điều 1 của Hiệp định quy định:

“

"Une ligne de démarcation militaire provisoire sera fixée, de part et d’autre de laquelle seront, après leur repli, regroupées les forces des deux parties: les forces de l’Armée populaire du Vietnam au Nord de cette ligne, les forces de l’Union Française au Sud de cette ligne.La ligne de démarcation militaire provisoire est fixée comme il est indiqué sur la carte jointe.Il est également convenu qu’une zone démilitarisée sera créée de part et d’autre de cette ligne de démarcation, à une distance de 5 kilomètres au maximum de cette ligne, pour servir de zonetampon et éviter tous incidents qui pourraient amener la reprise des hostilités." Tạm dịch: "Một giới tuyến quân sự sẽ được quy định rõ để lực lượng của hai bên sau khi rút lui sẽ tập hợp ở bên này và bên kia giới tuyến ấy: Lực lượng Quân đội Nhân dân Việt Nam ở phía Bắc giới tuyến, lực lượng Quân đội Liên hiệp Pháp ở phía Nam giới tuyến... Hai bên đều đồng ý có một khu phi quân sự hai bên giới tuyến, mỗi bên rộng nhất là 5 ki-lô-mét kể từ giới tuyến trở đi, khu phi quân sự này dùng để làm khu đệm và để tránh những việc xung đột có thể làm cho chiến sự xảy ra trở lại".[1]

”

Điều 4 của Hiệp định nói rõ thêm:

“

"La ligne de démarcation militaire provisoire entre les deux zones de regroupement final, est prolongée dans les eaux territoriales par un trait perpendiculaire au tracé général de la côte." Tạm dịch: "Giới tuyến quân sự giữa hai vùng tập hợp kéo dài ra ngoài hải phận theo một đường thẳng góc với đường ven biển".[2]

”

Giới tuyến cụ thể được quy định:

“

"-L'embouchure du Song Ben Hai(rivière de Cua Tung) et le cours de cette rivière (qui prend dans la montagne le nom de Rao Thanh) jusqu'au village de Bo Ho Su jusqu'à la frontière lao-vietnamienne. " Tạm dịch: "Cửa sông Bến Hải (sông Cửa Tùng) và dòng sông đó (trong vùng núi sông này gọi là sông Rào Thành) cho đến làng Bô-hô-su, rồi vỹ tuyến Bô-hô-su cho đến biên giới Lào - Việt"[3]

”

Lúc 15 giờ ngày 21 tháng 7 năm 1954, Bản Tuyên bố cuối cùng của Hội nghị Genève được công bố. Điều 6 của bản Tuyên bố nói rõ: '"Hội nghị chứng nhận rằng mục đích căn bản của Hiệp định về Việt Nam là giải quyết các vấn đề quân sự để đình chỉ chiến sự và giới tuyến quân sự chỉ có tính chất tạm thời, không thể coi là một ranh giới về chính trị hay về lãnh thổ"[4].

Song song đó, từ ngày 4 tháng 7 năm 1954, hai đoàn đại biểu của Bộ Tổng tư lệnh Quân đội Nhân dân Việt Nam và Bộ Tổng chỉ huy Quân đội Liên hiệp Pháp ở Đông Dương gặp nhau tại Trung Giã (Sóc Sơn, Hà Nội) để bàn về các vấn đề như: trao trả tù binh, thường dân bị bắt trong chiến tranh, việc tiếp quản các thành phố,... Ngày 3 tháng 8 năm 1954, hiệp nghị về việc thành lập Ủy ban liên hợp để thi hành Hiệp định được ký kết. Theo đó, "Ủy ban liên hợp có nhiệm vụ đại diện cho hai bên đặt kế hoạch và thể thức thực hiện các điều khoản trong hiệp định đình chỉ xung đột và kiểm tra, đôn đốc việc thực hiện kế hoạch ấy. Đồng thời thương lượng giải quyết mọi việc khác có liên quan đến hiệp định", nhằm "đảm bảo tôn trọng các đường ranh giới đóng quân tạm thời, giới tuyến quân sự và khu phi quân sự".[5]

Bản đồ khu phi quân sự

Ngày 18 tháng 8 năm 1954, Ủy ban liên hợp Trung ương ra quyết định số 06/QĐ quy định về việc vạch giới hạn thực tế của khu phi quân sự (Demilitarized Zone - DMZ), về số lượng an ninh mỗi bên trong DMZ cũng như việc ra vào DMZ.

Ở đoạn giới tuyến quân sự trùng với sông Hiền Lương, mỗi bên sẽ chịu trách nhiệm đặt ở các địa điểm qua lại những tấm biển ghi bằng hai thứ tiếng Việt - Pháp:

"Giới tuyến quân sự tạm thời
Ligne de démarcation militaire provisoire".

Trên đoạn giới tuyến lên đến biên giới Việt - Lào, cứ độ một cây số lại có một dấu hiệu như trên, đặt ở những chỗ dễ thấy.

Từ ngày 27 tháng 8 năm 1954, hai bên phải rút tất cả lực lượng, vật liệu, dụng cụ quân sự ra khỏi DMZ.

Trừ nhân viên của Ủy ban Quốc tế, các đội thị sát của Ủy ban quốc tế, Ủy ban liên hợp Trung ương, Ban liên hợp Bình Trị Thiên[6], các tổ liên hợp, nhân viên dân chính cứu tế và những người được phép riêng của Ban liên hợp Bình Trị Thiên, không một người nào dù quân nhân hay thường dân được vào DMZ cũng như vượt giới tuyến quân sự.

Trừ vật liệu dụng cụ quân sự cần thiết riêng cho lực lượng an ninh, không một thứ vật liệu, dụng cụ quân sự nào được mang vào DMZ.

Hai bên đều không được gây nên bất cứ một hành động xung đột nào trong DMZ, hoặc từ trong DMZ ra, hoặc từ ngoài vào DMZ và phải tránh mọi thái độ hay hoạt động có thể đưa đến xung đột.

Toàn thể những người từ 17 đến 60 tuổi (trừ những người tàn phế) vẫn sinh sống hoặc được tạm thời ra vào trong DMZ phía Nam và phía Bắc giới tuyến quân sự đều phải có giấy chứng minh của chính quyền mỗi bên trong DMZ cấp cho, trong đó ghi rõ tên tuổi, nam hoặc nữ, địa chỉ và dấu tích đặc biệt, nếu có thể thì sẽ có ảnh. Những người có giấy chứng minh ấy mới được phép ra vào tự do DMZ.[7]

Ngày 15 tháng 9 năm 1954, Ủy ban liên hợp Trung ương ra Quyết định số 11/QĐ, quy định về giới hạn của DMZ ở hai bên giới tuyến quân sự.

Ranh giới phía Bắc DMZ được giới hạn bởi:

• Một đường từ Đông sang Tây nối liền cửa sông phía Bắc sông Cửa Tùng tới làng Yên Du Bắc chạy thẳng qua làng Tân Trại Thượng và Liêm Công Tây đến mỏm 46.
• Một đường ngăn đôi làng Liêm Công Tây và làng Đơn Thầm đi vượt qua quốc lộ số I ở chỗ chiếc cầu nhỏ cách 2,5km Đông Nam Đơn Duệ.
• Một đường đi theo đường ranh giới phân chia các làng Quảng Xá - Tiên Lai - Tiên Trạo ở phía Tây và các làng Phan Xá - Lê Xá ở phía Đông. Đường này vượt qua đường xe lửa rồi men theo phía Tây làng Thủy Ba Hạ, đi qua các mỏm 16 - 15 rồi gặp dòng sông Ngọn Đan, đi theo con sông đó đến tận nguồn, đi sâu vào miền núi qua các mỏm 52, 84, 145, 414, 776, 1023, 1254, 917, 1250, 700.

Ranh giới phía Nam DMZ được giới hạn bởi:

• Một đường đi từ bờ biển ở chỗ 281, 771 qua các mỏm 10, 5 và 23 đến sông Tân Yên. Từ sông Tân Yên chạy thẳng đến sông Cao Xá.
• Đường ranh giới giữa các làng Trung Sơn, Gia Bình ở phía Nam và làng Đông Thị, Kinh Môn ở phía Bắc.
• Dòng sông Kinh Môn giữa các chỗ 154 - 750 và 110 - 731.
• Một đường nối liền chỗ 110 - 731 với con sông Khe Mước ở chỗ 189 - 715 bao gồm các con sông Thanh Hương và Thanh Khê.
• Dòng sông Khe Mước đến chỗ 050 - 690.
• Một đường đi qua các mỏm 330, 360, 415, 370, 624, 705, 628, 815, 895, 808, 1028, 422.

Đường ranh giới phía Bắc và phía Nam của DMZ sẽ được đánh dấu trên địa hình bằng những cọc gỗ, đặt ở những địa điểm dễ nhận thấy, có ghi những chữ "K.P.Q.S" ở một mặt. Những chữ đó, chữ nọ đặt dưới chữ kia, viết bằng sơn xanh hoặc đen trên nền trắng. Cọc cao 1,7m, cắm cách nhau xa hay gần tùy theo địa hình (tối thiểu là 50m, tối đa là 300m). Ở những ngã ba đường quan trọng, các cọc đó sẽ được thay thế bằng những biển ghi những chữ "Khu phi quân sự". Bắt đầu đến vùng rừng núi, phía Bắc từ Thủy Ba Hạ, phía Nam từ Thanh Khê trở lên đến biên giới Việt - Lào thì mỗi cọc cắm cách nhau chừng 1 km.

Ở trên biển, DMZ là vùng giới hạn bởi hai đường ranh giới DMZ Bắc và Nam trên đất liền kéo dài và nghiêng 45 độ so với bờ biển.[8]

Cũng theo quyết định này, việc bảo vệ Giới tuyến quân sự và DMZ sẽ do lực lượng công an và cảnh sát của hai bên đảm nhiệm. Mỗi bên có nhiều nhất là 100 người, kể cả cán bộ. Trang bị cho mỗi đội có 50% mang súng ngắn; số còn lại, 1/3 mang carbin, 2/3 mang tiểu liên, không có lựu đạn. Mỗi khẩu carbin hoặc tiểu liên có 200 viên đạn, mỗi súng ngắn 50 viên.[9]

Để tạo thuận lợi cho kiểm soát Giới tuyến quân sự, quyết định trên còn quy định rõ 10 địa điểm nhân dân được phép qua lại, gồm có cầu Hiền Lương và 9 bến đò[10] nối đôi bờ sông. Tại những nơi này, mỗi bên sẽ đặt các đồn hay trạm gác của mình để kiểm soát và những ai muốn ra vào DMZ phải có giấy thông hành do Ban liên hợp DMZ cấp, gồm ba loại:

a. Giấy thông hành vĩnh viễn để đi lại trong DMZ mỗi miền do cơ quan hành chính cấp cho dân trong DMZ của mình, tuổi từ 17 đến 60.b. Giấy thông hành tạm thời để vào DMZ do Tiểu ban hỗn hợp DMZ cấp cho những người ở ngoài muốn vào DMZ trong một thời hạn nhất định.c. Giấy thông hành đặc biệt để vượt tuyến do Tiểu ban hỗn hợp DMZ cấp.[11]

Việc kiểm soát hoạt động ở DMZ sẽ do Tổ Quốc tế 76 thuộc Ủy ban quốc tế, gồm có đại diện 3 nước Ấn Độ, Ba Lan và Canađa phụ trách. Tổ có nhiệm vụ kiểm tra việc thi hành Hiệp định ở DMZ, có thể triệu tập Ban liên hợp DMZ họp nếu thấy cần thiết. Mỗi lần Tổ muốn đi kiểm tra ở đâu phải báo trước với Ban liên hợp DMZ và phải có đại diện Ban liên hợp đi theo để cùng giải quyết tại chỗ những việc xảy ra trong khu vực phụ trách.